速转“家庭群”！AI换脸新骗局，有人10分钟被骗430万！

“眼见”不一定“为实”之后

你怎么办？

近日

话题#AI诈骗正在全国爆发#

冲上微博热搜

包头市警方发布一起

使用智能AI技术进行电信诈骗的案件

福州市某科技公司法人代表郭先生

10分钟内被骗430万元 ！！

一时间，AI换脸引发网友热议

10分钟内被骗430万元

AI换脸被用于诈骗

根据警方通报，4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。

郭先生基于对好友的信任，加上自认为已经视频聊天“核实”了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友的银行卡上。

事后，郭先生拨打好友电话才知道被骗，原来骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

    郭启晨  专业教师、动画导演

    深职院数字创意与动画学院

人工智能的出现，让不法分子有了用先进技术给真人换脸的机会，让人无法分辨自己面对的是真人还是数字人？这些诈骗犯罪分子一般会利用大家关心的亲人好友，利用大家善良、焦虑的心理，去钻这个空子。 

9秒被骗走245万元 

又一起AI换脸诈骗被曝光

继“10分钟被AI换脸骗走430万元”的事件引发公众关注后，4月发生的一起AI换脸诈骗事件又被媒体曝光。这次诈骗金额245万元，且整个诈骗过程时间更短，只有9秒钟。

4月27日，安徽何先生的微信“好友”突然向其发起视频通话，电话接通后，何先生看到“好友”正在一间会议室内，就在他准备进一步询问时，“好友”直接挂断了电话，全程只有9秒钟。随后“好友”表示在会议中有重要事情交代，需要何先生添加QQ沟通。

紧接着，“好友”在QQ上告诉何先生，目前有一个项目招标需要周转资金，希望何先生先行帮忙垫付。“视频里边我看到是他的脸”，“我没多想就转账了”，直到事后，何先生拨打对方电话才得知被骗。

AI换脸冒充明星带货

网上还有相关教程

除了佯装“熟人脸”实施诈骗，AI换脸还可能出现在直播带货中。近日，多个电商直播间被爆出使用明星AI换脸直播。很多粉丝在直播中看见自己的偶像直播，马上愉快下单，但其后仔细一看才发现这些都是“换脸”的结果。

△该直播间的不同主播都有着一张神似杨幂的脸

记者从专家处了解到，有不少直播间里出现了“明星脸”，并且还有不同的主播共享同一张明星脸。在网上，甚至还出现相关AI换脸直播教程，并且提供换脸直播工具的下载渠道。

律师表示，商家在没有经过明星同意的情况下，冒用明星的面部特征进行直播，无论是否用于商业目的，都涉嫌侵犯明星肖像权。主播通过AI换脸技术使用明星的脸进行直播带货，在法律上也构成了对消费者的销售欺诈。

    潘翔 律师

这属于虚假宣传行为，消费者如果受骗上当购买了产品，可以主张商家按照欺诈性销售的规定退一赔三。

四种AI诈骗常用手法

• 第一种：声音合成

骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。

• 第二种：AI换脸

人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式进行信息确认。

骗子首先分析公众发布在网上的各类信息，根据所要实施的骗术，通过AI技术筛选目标人群。在视频通话中利用AI换脸，骗取信任。

这些例子要警惕：

2022年2月，陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。

2021年，浙江温州公安曾发布消息称，拱宸桥派出所接到报警，受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。经警方调查，对方利用AI换脸技术，将小陈视频中的面部合成到不雅视频中，借此对其实施勒索。

• 第三种：转发微信语音

骗子在盗取微信号后，便向其好友“借钱”，为取得对方的信任，他们会转发之前的语音，进而骗取钱款。

尽管微信没有语音转发功能，但他们通过提取语音文件或安装非官方版本（插件），实现语音转发。

• 第四种：AI程序筛选受害人

骗子利用AI来分析公众发布在网上的各类信息，根据所要实施的骗术对人群进行筛选，在短时间内便可生产出定制化的诈骗脚本，从而实施精准诈骗。

例如：实施情感诈骗时，可以筛选出经常发布感情类信息的人群；实施金融诈骗时，可以筛选出经常搜索投资理财信息的人群。

如何防范AI换脸、换声诈骗？

• 多重验证，确认身份

如果有人要求你分享个人身份信息，如你的地址、出生日期或名字，要小心；

对突如其来的电话保持警惕，即使是来自你认识的人，因为来电显示的号码可能是伪造的；

网络转账前要通过电话等多种沟通渠道核验对方身份，一旦发现风险，及时报警求助；

如果有人自称“熟人”“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息。

• 保护信息，避免诱惑

不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；

陌生链接不要点，陌生软件不要下载，陌生好友不要随便加，防止手机、电脑中病毒，微信、QQ等被盗号；

• 提高安全防范意识
  

公检法没有安全账户，警察不会网上办案，如果有网络警察说你犯事了，让他联系你当地的派出所，你也可以主动打110咨询；

如不慎被骗或遇可疑情形，请注意保护证据，立即拨打96110报警。

 - END -

信息来源 | 第一现场

编辑整理 | 张碧茵

责任主编 | 郑芳、杨莎

转载请注明以上内容

推荐阅读

往期内容

 - END -

信息来源 | 第一现场

编辑整理 | 张碧茵

责任主编 | 郑芳、杨莎

转载请注明以上内容

推荐阅读

往期内容